Năm 380, Phù Kiên triệu hồi Phù Dung, người này đang quản lý các châu phía đông (tức lãnh thổ Tiền Yên trước đây), về kinh thành Trường An để giữ chức thừa tướng thay cho Vương Mãnh. Phù Phi được phong làm đô đốc Quan Đông, Chinh Đông đại tướng quân thay thế Phù Dung. Trong năm, khi Phù Kiên thực hiện một kế hoạch để phân đồng bào người Đê của mình đến các vùng khác nhau của đế quốc, đã có một số lượng đáng kể các binh lính người Đê cùng gia đình đã đi cùng với Phù Phi đến bản doanh của ông tại Nghiệp Thành.

Phù Phi đã không tham gia trận Phì Thủy, khi đó ông vẫn ở tại Nghiệp Thành. Tuy nhiên, sau thất bại của Tiền Tần, tướng Tiên Ti là Mộ Dung Thùy, một thân vương của Tiền Yên trước đây, đã âm mưu nổi loạn để tái lập nước Yên. Năm 383, sau khi thuyết phục Phù Kiên cho phép ông ta đế các châu phía đông để ổn định lòng người sau thất bại trong trận Phì Thủy, Mộ Dung Thùy đã đến Nghiệp Thành, tại đây Mộ Dung Thùy tiếp tục mưu đồ và ông ta cùng Phù Phi từng nghĩ đến việc phục kích đối phương song đã không thực hiện. Sau đó, tộc trưởng Đinh Linh là Địch Bân (翟斌) đã nổi loạn và tiến đánh Lạc Dương, là thành do anh trai của Phù Phi Bình Nguyên vương Phù Huy (苻暉) trấn giữ, Phù Kiên lệnh cho Mộ Dung Thùy đi đánh quân Đinh Linh, và Phù Phi đã cử thân tín là Phù Phi Long (苻飛龍) làm phụ tá cho Mộ Dung Thùy. Tuy nhiên, trên đường đến Lạc Dương, Mộ Dung Thùy đã giết chết Phù Phi Long và thảm sát binh lính của Phù và chuẩn bị nổi loạn. Trong khi đó, mặc dù đã nghi ngờ Mộ Dung Thùy song Phù Phi đã không đặt con trai của Mộ Dung Thùy là Mộ Dung Nông (慕容農) và các cháu trai Mộ Dung Khác (慕容楷) và Mộ Dung Thiệu (慕容紹) dưới sự giám sát, cả ba vì thế đã có thể chạy trốn khỏi Nghiệp Thành và bắt đầu một cuộc nổi loạn riêng của họ.

Vào mùa xuân năm 384, Mộ Dung Thùy công khai tuyên bố thành lập Hậu Yên, xưng làm Yên vương. Phù Phi đã cố thuyết phục Mộ Dung Thùy chấm dứt nổi loạn, song Mộ Dung Thùy đã từ chối và tiến đánh Nghiệp Thành song đã không thể hạ thành một cách nhanh chóng. Tuy nhiên, hầu hết các thành ở phía bắc Hoàng Hà và phía đông Thái Hành Sơn đã đầu hàng hoặc bị quân Hậu Yên chiếm, khiến cho nghiệp Thành bị cô lập. (Các thành ở phía nam Hoàng Hà phần lớn đã bị Tấn chiếm.) Trong khi đó, ngay cả vùng trung tâm của đế quốc cũng đang chịu sự tấn công của quân nổi loạn Hậu Tần và Tây Yên, Phù Phi vì thế đã không còn hy vọng nhận được cứu trợ, tình hình này đã khiến cho ông và quân lính trở nên tuyệt vọng. Cuối năm 384, Mộ Dung Thùy trong một thời gian ngắn đã bỏ việc bao vây Nghiệp Thành để tái tập hợp quân lính, song cũng vào lúc đó, quân Tấn đã tiến công. Phù Phi chính thức cầu hòa, song phụ tá của ông là Dương Ưng (楊膺) lại thay mặt ông hứa hẹn sẽ đầu hàng Tấn. Với lời hứa đó, tướng Tạ Huyền của Tấn đã trợ giúp cho quân của Phù Phi và cung cấp lương thảo, song liên minh này cuối cùng lại tan vỡ. Trong khi đó, Mộ Dung Thùy quay trở lại và tiếp tục vây thành sau khi đánh bại quân Tấn của Lưu Lao Chi (劉牢之). Năm 385, Phù Phi bỏ Nghiệp Thành và dẫn quân về phía tây bắc để đến Tấn Dương (晉陽, nay thuộc Thái Nguyên, Sơn Tây), tại đây ông nhận được tin phụ hoàng đã bị vua Diêu Trường của Hậu Tần sát hại. Phù Phi do vậy đã xưng đế.